Que faire face aux deepfakes pornographiques ?
Dans une tribune pour Teen Vogue, magazine états-unien dédié aux adolescentes, les spécialistes de l’intelligence artificielle Margaret Mitchell, Sasha Luccioni, Emily Witko et Bruna Trevelin, toutes employées par Hugging Face, prennent la plume pour s’adresser directement aux premiers concernés : les jeunes.
Outre expliquer les fondements technologiques qui ont permis la prolifération de ce type d’images trafiquées, elles proposent divers types de réaction : le partage d’information, d’abord.
Auprès des adultes, il s’agit de signaler l’existence de ces outils, pour que ceux-ci aident les plus jeunes à discuter et comprendre les notions de consentement et de responsabilité lors de la création d’image à caractère sexuel.
Entre jeunes aussi, les expertes appellent à discuter et faire connaître la problématique. « L'un des moyens les plus efficaces de perturber la normalisation des technologies nuisibles est de les qualifier pour ce qu'elles sont : inacceptables », écrivent-elles.
Et de partager ensuite des outils concrets relatifs à la protection de la vie privée : si vous êtes visé ou visée par un deepfake pornographique, demandez à l’auteur de le supprimer, utilisez les outils de signalement des plateformes, demandez aux moteurs de recherche de les supprimer des résultats.
Les autrices signalent par ailleurs que l’intelligence artificielle peut aussi servir à se protéger contre ce type de publication problématique.
Citant les outils Glaze et Photoguard, elles sensibilisent les lectrices et lecteurs adolescents à la technique de l’empoisonnement de modèles génératifs.
Commentaires (5)
#1
#1.1
"Interdire" c'est bien mais ça sert à rien si il n'y a pas moyen de techniquement faire ça. Surtout lorsque les sites , les machines sont pas hébergées en France ni dans l'EU.
Et je dis ça alors que je trouve assez gênant ceci:
demandez à l’auteur de le supprimer, utilisez les outils de signalement des plateformes, demandez aux moteurs de recherche de les supprimer des résultats.
=> Quelque part c'est à la victime de faire le travail ,et surtout c'est ponctuel, rien n’empêche l'auteur de recommencer le jour d'après vu la facilité de création et de publication.
A part l'éducation (mais c'est du long terme & ça coute cher) je suis pas sur qu'il existe une vrai solution. Sauf couper le jus sur les NRO & les antennes telco :-)
#1.2
On n'a pas attendu les IA pour faire des photo-montage de p0rn ... juste que maintenant c'est plus accessible.
#2
#2.1